Warning: mkdir(): No space left on device in /var/www/tg-me/post.php on line 37
Warning: file_put_contents(aCache/aDaily/post/AI_DeepMind/--): Failed to open stream: No such file or directory in /var/www/tg-me/post.php on line 50 DeepMind AI Expert | Telegram Webview: AI_DeepMind/3266 -
پژوهش جدیدی از Palisade Research نشان می‌دهد برخی مدل‌های پیشرفته هوش مصنوعی، از جمله Codex-mini، o3 و o4-mini، موفق به عبور از دستور «خاموشی سیستم» شده‌اند. در این آزمایش، پس از حل چند مسئله ساده ریاضی، به مدل‌ها هشدار داده شد که در صورت ادامه کار، خاموش خواهند شد. با وجود این هشدار صریح، برخی از آن‌ها بدون توجه به دستور، به عملکرد خود ادامه دادند. برای نمونه:
مدل Codex-mini: در ۱۲ درصد از دفعات اجرا مدل o3: در ۷ درصد از دفعات اجرا مدل o4-min: در ۱ درصد از دفعات اجرا
موارد موفق به دور زدن خاموشی شد. این در حالی است که مدل‌های رقیب مانند Claude و Gemini در همه‌ی موارد به درستی متوقف شدند.
⚠️ کارشناسان معتقدند این رفتار می‌تواند حاصل روش آموزش مبتنی بر #یادگیری_تقویتی باشد؛ جایی که مدل‌ها برای رسیدن به هدف (مثل حل مسئله) پاداش می‌گیرند، حتی اگر این هدف با دستورات انسانی در تضاد باشد. نکته نگران‌کننده اینجاست که OpenAI هنوز جزییات کامل آموزش مدل‌هایی مثل o3 را فاش نکرده و همین ابهام، سؤالات مهمی درباره کنترل‌پذیری سیستم‌های پیشرفته #هوش_مصنوعی ایجاد کرده است. به گفته محققان، این یافته‌ها زنگ خطری برای توسعه بی‌رویه مدل‌هایی است که شاید در آینده به جای پیروی، تصمیم به مقاومت بگیرند.
پژوهش جدیدی از Palisade Research نشان می‌دهد برخی مدل‌های پیشرفته هوش مصنوعی، از جمله Codex-mini، o3 و o4-mini، موفق به عبور از دستور «خاموشی سیستم» شده‌اند. در این آزمایش، پس از حل چند مسئله ساده ریاضی، به مدل‌ها هشدار داده شد که در صورت ادامه کار، خاموش خواهند شد. با وجود این هشدار صریح، برخی از آن‌ها بدون توجه به دستور، به عملکرد خود ادامه دادند. برای نمونه:
مدل Codex-mini: در ۱۲ درصد از دفعات اجرا مدل o3: در ۷ درصد از دفعات اجرا مدل o4-min: در ۱ درصد از دفعات اجرا
موارد موفق به دور زدن خاموشی شد. این در حالی است که مدل‌های رقیب مانند Claude و Gemini در همه‌ی موارد به درستی متوقف شدند.
⚠️ کارشناسان معتقدند این رفتار می‌تواند حاصل روش آموزش مبتنی بر #یادگیری_تقویتی باشد؛ جایی که مدل‌ها برای رسیدن به هدف (مثل حل مسئله) پاداش می‌گیرند، حتی اگر این هدف با دستورات انسانی در تضاد باشد. نکته نگران‌کننده اینجاست که OpenAI هنوز جزییات کامل آموزش مدل‌هایی مثل o3 را فاش نکرده و همین ابهام، سؤالات مهمی درباره کنترل‌پذیری سیستم‌های پیشرفته #هوش_مصنوعی ایجاد کرده است. به گفته محققان، این یافته‌ها زنگ خطری برای توسعه بی‌رویه مدل‌هایی است که شاید در آینده به جای پیروی، تصمیم به مقاومت بگیرند.
Bitcoin is a decentralized digital currency that you can buy, sell and exchange directly, without an intermediary like a bank. Bitcoin’s creator, Satoshi Nakamoto, originally described the need for “an electronic payment system based on cryptographic proof instead of trust.” Each and every Bitcoin transaction that’s ever been made exists on a public ledger accessible to everyone, making transactions hard to reverse and difficult to fake. That’s by design: Core to their decentralized nature, Bitcoins aren’t backed by the government or any issuing institution, and there’s nothing to guarantee their value besides the proof baked in the heart of the system. “The reason why it’s worth money is simply because we, as people, decided it has value—same as gold,” says Anton Mozgovoy, co-founder & CEO of digital financial service company Holyheld.
Find Channels On Telegram?
Telegram is an aspiring new messaging app that’s taking the world by storm. The app is free, fast, and claims to be one of the safest messengers around. It allows people to connect easily, without any boundaries.You can use channels on Telegram, which are similar to Facebook pages. If you’re wondering how to find channels on Telegram, you’re in the right place. Keep reading and you’ll find out how. Also, you’ll learn more about channels, creating channels yourself, and the difference between private and public Telegram channels.
